Online machine learning (học máy trong thời gian thực)
Những bạn nào theo dõi trí tuệ nhân tạo sẽ thấy các chương trình học máy (machine learning models) hiện đang ngày càng lớn, lên đến hàng tỉ biến số, và chạy ngày càng chậm. Nhiều người nghĩ việc này là một rào cản khiến cho việc đưa các chương trình này vào ứng dụng. Nhiều công ty không dám chạy các chương trình này trong thời gian thực (online) mà chạy theo kiểu offline: đưa ra phỏng đoán trước, ghi nhớ chúng, rồi khi nào người sử dụng cần mới lấy chúng ra, thay vì đưa ra phỏng đoán ngay khi cần.
Nhưng sau khi nói chuyện với các công ty lớn, mình nhận ra rằng một số công ty không chỉ chạy các model lớn này online, mà còn train chúng online luôn (online learning).
Bài viết này phân tích các ứng dụng của online machine learning dựa vào các cuộc nói chuyện với các công ty ở cả Mỹ và Trung Quốc, bao gồm Netflix, DoorDash, Yelp, Tencent, Alibaba, TikTok, …
Để có thể ứng dụng online machine learning, infra là vô cùng quan trọng, và mình thấy các công ty TQ rất có thể đang đi trước các công ty Mỹ về mảng infra cho AI.
Bài viết tập trung chuyên môn và bằng tiếng Anh, các bạn thông cảm vậy nha!
Search